आज के डिजिटल युग में, बच्चों की ऑनलाइन सुरक्षा का मुद्दा zunehmend महत्वपूर्ण हो रहा है। हाल ही में, Roblox, Discord, OpenAI और गूगल ने ROOST (शक्तिशाली ओपन ऑनलाइन सुरक्षा उपकरण) नामक एक गैर-लाभकारी संस्था की स्थापना की, जिसका उद्देश्य एआई युग के लिए एक स्केलेबल और इंटरकनेक्टेड सुरक्षा अवसंरचना का निर्माण करना है। इस नए संगठन का लक्ष्य सार्वजनिक और निजी संस्थाओं को ओपन-सोर्स सुरक्षा उपकरण प्रदान करना है, ताकि वे अपनी प्लेटफ़ॉर्म पर सुरक्षा को सुदृढ़ करने में सहायता कर सकें, विशेष रूप से बच्चों की सुरक्षा पर ध्यान केंद्रित करते हुए। तस्वीर का स्रोत नोट: चित्र एआई द्वारा उत्पन्न किया गया है।

गूगल ने ऑनलाइन सुरक्षा के लिए एक श्रृंखला की पहलों की घोषणा की है, जिसका उद्देश्य खोज में गहरे नकली सामग्री को हटाना है, विशेष रूप से बिना सहमति के स्पष्ट चित्रों से संबंधित। जब उपयोगकर्ता इस तरह की सामग्री को हटाने के लिए अनुरोध करते हैं, तो सिस्टम केवल विशिष्ट सामग्री को ही नहीं संभालता, बल्कि संबंधित समान परिणामों को भी फ़िल्टर करता है, और यहां तक कि दोहराए गए चित्रों को भी हटा देता है। इस तरह की सामग्री को खोज परिणामों में प्रमुखता से दिखाई देने से रोकने के लिए, गूगल ने खोज रैंकिंग तंत्र को समायोजित किया है, और वास्तविक गहरे नकली चित्रों की खोज के लिए, उच्च गुणवत्ता, स्पष्ट न होने वाली सामग्री जैसे कि समाचार रिपोर्टें दिखाई जाती हैं। जिन वेबसाइटों में बड़ी मात्रा में हटाए गए झूठे स्पष्ट चित्र होते हैं, उनकी खोज परिणामों में रैंकिंग कम की जाती है।

ऑस्ट्रेलिया ने नए ऑनलाइन सुरक्षा मानकों की घोषणा की है, जिससे प्रौद्योगिकी कंपनियों में चिंता पैदा हुई है। माइक्रोसॉफ्ट, मेटा आदि को चिंता है कि मानक एआई सिस्टम की सुरक्षा क्षमता को कमजोर कर सकता है। नए मानक जेनरेटिव आर्टिफिशियल इंटेलिजेंस पर केंद्रित हैं और इसमें बच्चों की सुरक्षा और आतंकवादी सामग्री शामिल हैं। प्रौद्योगिकी कंपनियों का मानना है कि मानक एआई प्रशिक्षण को सीमित कर सकता है, जिससे सामग्री की समीक्षा की सटीकता पर असर पड़ेगा।

ब्रिटेन सरकार ने एक नया ऑनलाइन सुरक्षा कानून प्रस्तावित किया है, जिसमें उपयोगकर्ताओं की उम्र को निर्धारित करने के लिए आर्टिफिशियल इंटेलिजेंस तकनीकों का उपयोग करने का सुझाव दिया गया है कि क्या वे पोर्नोग्राफी सामग्री देखने के लिए कानूनी उम्र में हैं। प्रस्तावित विधियों में चेहरे की उम्र का अनुमान, फोटो पहचान मिलान, क्रेडिट जांच और ओपन बैंकिंग जैसी कई तकनीकें शामिल हैं। वैधता के निकायों और स्वतंत्र बाजार थिंक टैंक ने अनिवार्य उम्र सत्यापन पर चिंताओं का इजहार किया है, यह बताते हुए कि यह उपयोगकर्ताओं की गोपनीयता को खतरे में डाल सकता है और संवेदनशील डेटा के लीक होने का जोखिम बढ़ा सकता है। नए पारित ऑनलाइन सुरक्षा कानून के तहत, पोर्नोग्राफी सामग्री दर्शाने या प्रकाशित करने वाली वेबसाइटों और अनुप्रयोगों को यह सुनिश्चित करना आवश्यक है कि बच्चे आमतौर पर इससे संपर्क न कर सकें।